Semantic Pareto-DQN: A Multi-Objective Reinforcement Learning Framework for Financial Anomaly Detection
语义帕累托-DQN：面向金融异常检测的多目标强化学习框架
🧭 多目标强化学习 · LLM 语义表示
A3Data
用 LLM 编码交易描述作状态，多目标解耦效益与摩擦，打破零召回成规
📌 工作参考价值（4 点）
- 将异构特征转化为自然语言叙述并用 LLM 编码：在电商/推荐系统中，可将用户行为序列、商品属性、上下文信息拼接为简洁的自然语言 Prompt，通过 LLM 获得鲁棒的通用语义 state embedding，替代手工特征工程，提升多模态信号融合稳定性。
- 多目标奖励解耦设计：在推荐场景中（如平衡 CTR、GMV、用户停留时长），采用向量化奖励取代加权求和，每个维度独立反馈，agent 可直接学习不同目标间的权衡，避免标量化带来的目标淹没。实现上可仿照本文 Pareto-DQN，输出多维 Q 值并通过帕累托前沿动态选择动作。
- 利用 RL 处理极端类别不平衡：对于点击、转化等低概率事件，传统分类器容易坍缩到多数类。可借鉴本文的自适应决策理念，用 RL agent 在线决策是否推送/出价，通过奖励信号中显式纳入对少数类的补偿，突破静态模型的 recall 陷阱。
- 帕累托前沿导航实现策略热切换：在线上服务中，根据业务需要（如大促期间更重视 GMV，平时更重视体验）可以实时在帕累托前沿上移动选择不同的策略点，无需重新训练，适合多变的电商运营需求。